Setelah mengundurkan diri dari jabatan ketua MUI, kesihatannya merosot. Atas anjuran doktor Karnen Bratawijaya, doktor keluarga itu, di Rumah Sakit Pusat Pertamina pada 18 Julai 1981, yang bertepatan dengan awal Ramadan.[40]

Pada hari keenam dirawat, ia sempat menunaikan solat Duha dengan bantuan anak perempuannya, Azizah, untuk bertayamum. Pada petang, beberapa doktor datang memeriksa keadaannya, dan kemudian menyatakan bahawa ia berada dalam keadaan koma. Keadaan tersebut tetap berlangsung hingga malam harinya. Pasukan doktor menyatakan bahawa buah pinggang, paru-paru dan saraf utamanya sudah tidak berfungsi lagi, dan keadaannya hanya boleh dipertahankan dengan alat pacu jantung. Pada pukul 10 pagi keesokan harinya, anak-anaknya sepakat untuk mencabut alat pacu jantung, dan Hamka menghembuskan nafas terakhirnya tidak lama selepas itu.[41]

Hamka meninggal dunia pada hari Jumaat, 24 Julai 1981 jam 10:37 pagi dalam usia 73 tahun. Jenazahnya disemadikan di rumahnya di Jalan Raden Fatah III. Antara pelayat yang hadir untuk memberi penghormatan terakhir dihadiri Presiden Suharto dan Naib Presiden Adam Malik, Menteri Alam Sekitar Indonesia, Emil Salim serta Menteri Perhubungan Azwar Anas yang menjadi imam solat jenazahnya.[42] Jenazahnya dibawa ke Masjid Agung dan disembahyangkan lagi, dan kemudian akhirnya dikebumikan di Taman Rerkuburan Awam Tanah Kusir, Jakarta Selatan, dipimpin Menteri Agama Alamsjah Ratoe Perwiranegara.[43]